EvoReason: Self-Evolving Reasoning Primitive-Guided On-Policy Distillation for Latent Reasoning in Generative Recommendation
EvoReason:自演进推理基元引导的在线策略蒸馏用于生成式推荐潜在推理
🧭 生成式推荐·潜在推理·在线策略蒸馏 ★ 深度解读
Kuaishou Technology · Shenzhen University
提取可复用推理原语并自演进,引导结构化链式思考,通过在线蒸馏将推理能力迁移到潜在表示,实现高效生成式推荐。
📌 工作参考价值(4 点)
- 借鉴从 Agent 轨迹中诱导推理原语的方法,将复杂用户意图推理拆解为可复用的函数式工具(如偏好提取、冲突检测),提升 CoT 稳定性与可解释性,适用电商搜索推荐场景。
- 在线策略蒸馏机制可将大模型推理能力压缩进轻量潜在表示:通过置信门控过滤低质量监督,KV 缓存对齐将显式推理信息注入潜在空间,线上推理无需生成显式 CoT,延迟极低。
- 自演进原语库的设计支持根据线上反馈动态更新推理模式,适应电商促销、季节变化等分布迁移,无需全模型重训练。
- 教师与学生共享 backbone,训练时仅通过额外上下文增强,不引入额外参数,工程实现友好。